Khosrau là con trai của vua Hormizd IV, với một phụ nữ quý tộc vô danh xuất thân từ gia tộc Ispahbudhan, bà còn là em gái của Vistahm và Vinduyih. Khosrau cũng đã có hai người anh em họ xuất thân từ gia tộc Ispahbudhan có tên là Mah-Adhur Gushnasp và Narsi.[37]Ông còn có một người anh rể tên là Hormuzan,[38] một nhà quý tộc Sassanid đến từ một trong bảy gia tộc Parthia, người sau này đã chiến đấu chống lại người Ả Rập trong cuộc xâm lược Ba Tư của người Hồi giáo.

Khosrau đã kết hôn ba lần: đầu tiên với Maria, người con gái của hoàng đế Đông La Mã Maurice, bà đã sinh cho ông người con trai Kavadh II. Sau đó là Gordiya, em gái của Bahram Chobin, người đã sinh cho ông Javanshir. Sau đó, là Shirin, người đã sinh cho ông Mardanshah[1]. Khosrau cũng có những người con khác mà được đặt tên là: Borandukht, Azarmidokht, Shahryar và Farrukhzad Khosrau V. Tất cả những người này ngoại trừ Shahryar sau này đều trở thành vua của Ba Tư trong cuộc nội chiến từ năm 628 - năm 632. Khosrau còn có một người em tên là Kavadh và một em gái tên là Mirhran, bà đã cưới viên spahbed của nhà Sassanid tên là Shahrbaraz, và sau đó sinh cho ông ta người con trai tên là Shapur-i Shahrvaraz, [39]trong khi Kavadh đã cưới một người phụ nữ không rõ tên tuổi, người đã sinh cho ông ta người con trai tên là Khosrau III.

Gia phả